Cuối năm 1955, sau khi chính thể Việt Nam Cộng hòa thành lập, ông từ bỏ quốc tịch Pháp và ở lại phục vụ trong Quân đội Việt Nam Cộng hòa với chức vụ Tham mưu trưởng Liên quân Bộ Tổng tham mưu kiêm Phụ tá Tổng Tham mưu trưởng. Đầu tháng 2 năm 1957 ông được thăng cấp Trung tướng tại nhiệm. Cùng thăng Trung tướng đợt này có người bạn cũ Dương Văn Minh. Ngày 4 tháng 5, ông là Sĩ quan tùy viên tháp tùng Tổng thống Diệm công du Hoa Kỳ 10 ngày (từ 8 đến 18 tháng 5 năm 1957), ngày 20 tháng 5 phái đoàn rời Honolulu trở về Sài Gòn. Ngày 15 tháng 10 ông được bổ nhiệm chức vụ Tư lệnh Quân đoàn I và Vùng 1 Chiến thuật thay thế Trung tướng Thái Quang Hoàng. Năm 1959 ông được cử đi du học khóa Vũ khí cận đại tại Fort Bliss, Tiểu bang Texas, Hoa Kỳ.

Tuy nhiên, từ năm 1960 trở đi, mối quan hệ giữa ông và Tổng thống Diệm bắt đầu có những rạn nứt. Ngày 8 tháng 12 năm 1962, ông được điều về lại Bộ Tổng tham mưu giữ chức vụ Tư lệnh Lục quân, trên thực tế là một chức vụ không nắm thực quyền, sau khi bàn giao chức vụ Tư lệnh Quân đoàn I lại cho Thiếu tướng Lê Văn Nghiêm. Những người quen cũ của ông ngày nào từng ủng hộ Tổng thống Diệm cũng giữ một chức vụ "quyền lực" không kém: Trung tướng Dương Văn Minh, Tư lệnh Hành quân Bộ Tổng tham mưu, Thiếu tướng Lê Văn Kim, Phụ tá Tư lệnh Bộ Tư lệnh Hành quân, Trung tướng Trần Văn Minh, Chỉ huy trưởng Trường Đại học Quân sự... Cộng thêm tình thế chính trị và xã hội phức tạp của Việt Nam Cộng hòa trong Biến cố Phật giáo 1963, ông dần trở thành một nhân vật quan trọng trong các báo cáo về những ý đồ đảo chính của phân bộ CIA tại Sài Gòn.[5]

Đảo chính và bị đảo chính

Mặc dù vậy, với bản tính thận trọng, ông vẫn giữ được phần nào sự tin cậy của Tổng thống Diệm trong khi vẫn là nhân vật liên lạc của nhóm đảo chính, thậm chí giữ kín kế hoạch đảo chính với cả người Mỹ.[6] Ngày 27 tháng 7 năm 1963 Đại tướng Lê Văn Tỵ, Tổng Tham mưu trưởng, sang Mỹ chữa trị ung thư phổi; Thiếu tướng Trần Thiện Khiêm, Tham mưu trưởng Liên quân, tạm thời làm Xử lý thường vụ Tổng Tham mưu trưởng. Trong một động thái đã được dự tính, ngày 19 tháng 8 năm 1963, ông dẫn đầu một phái đoàn gồm một số tướng lĩnh vào Dinh Gia Long để đệ trình Tổng thống Diệm một kế hoạch ban hành tình trạng khẩn cấp để tránh những tác hại lan rộng của Biến cố Phật giáo. Vì vậy, ngay ngày hôm sau 20 tháng 8, Tổng thống Diệm đã bổ nhiệm ông làm Quyền Tổng Tham mưu trưởng, nhằm mục đích thực thi kế hoạch.

Trên thực tế, với vai trò này, ông càng có điều kiện đẩy nhanh kế hoạch đảo chính. Chỉ trong vòng 1 tháng, các chỉ huy và đơn vị trung thành với Tổng thống Diệm đều bị vô hiệu hoặc được điều chuyển ra khỏi Sài Gòn. Và cuộc đảo chính thực sự nổ ra ngày 1 tháng 11 năm 1963, cũng như cái chết của anh em Tổng thống Diệm một ngày sau đó.

Để thay thế vai trò của Tổng thống Diệm, một Hội đồng Quân nhân Cách mạng được thành lập. Ông được giữ vị trí thứ 2 trong Hội đồng với vai trò Đệ Nhất Phó Chủ tịch, chỉ sau tướng Dương Văn Minh. Cùng thời điểm, ông được làm Tổng trưởng Quốc phòng trong Nội các Chính phủ Thủ tướng Nguyễn Ngọc Thơ. Đến đầu tháng 1 năm 1964, ông được kiêm luôn chức vụ Tổng Tư lệnh Quân đội Việt Nam Cộng hòa (Tổng Tham mưu trưởng), nhưng chỉ sang ngày hôm sau, ông bàn giao chức vụ này lại cho người em rể là Thiếu tướng Lê Văn Kim. Đến ngày 14 tháng 1, ông được cử làm Trưởng đoàn hướng dẫn phái đoàn Quân sự công du Thái Lan trong thời gian 2 ngày.[7]

Tuy nhiên, danh vọng tột đỉnh của ông chỉ tồn tại chưa đầy 3 tháng. Ngày 30 tháng 1 năm 1964, một người bạn cũ của ông, tướng Nguyễn Khánh, đã thực hiện cuộc "Chỉnh lý" lên nắm chức vụ Chủ tịch Hội đồng. Ông cùng các một số tướng lĩnh chủ chốt trong Hội đồng gồm Tôn Thất Đính, Lê Văn Kim, Mai Hữu Xuân đều bị bắt giam và đưa lên Đà Lạt chờ điều tra với tội danh tình nghi “trung lập”. Cả Thiếu tướng Nguyễn Văn Vỹ (mới trở về sau một thời gian sống lưu vong ở Pháp) cũng bị bắt giam tại Đà Lạt cùng với các tướng Đôn, Đính, Kim, Xuân.

Ông kể lại trong hồi ký khi được đưa ra đối chất trước Hội đồng vào lúc 1 giờ sáng ngày 29 tháng 5 năm 1964:

“Bước vào thật là buồn rầu, bỡ ngỡ. Trước mặt tôi là các tướng: Dương Văn Minh, Nguyễn Khánh, Đỗ Cao Trí, Phạm Xuân Chiểu, Dương Văn Đức, Lâm Văn Phát, Đỗ Mậu, Tôn Thất Xứng, Nguyễn Chánh Thi, Dương Ngọc Lắm, Trần Tử Oai, Lê Văn Nghiêm, Nguyễn Cao Kỳ (đến buổi sáng sau), Chung Tấn Cang, các Đại tá: Trần Thanh Bền,[8] Nguyễn Mộng Bích,[9] Lê Văn Nhiêu.[10] Tôi ngồi ở giữa, họ ngồi chung quanh…”.

Nhưng dù sao thì ông cũng được trả tự do.

“Tôi ngủ một đêm tự do sau 4 tháng “đi nghỉ mát” ở biển và cao nguyên. Qua ngày chủ nhật 31 tháng 5, tất cả gia đình tôi đoàn tụ ở Đà Lạt sau 4 tháng đen tối nhất của đời tôi”.[11]

Mặc dù đến tháng 10 cùng năm, ông được phép trở lại phục vụ quân đội nhưng không được giao nhiệm vụ cụ thể nào. Sau khi tướng Nguyễn Khánh bị các tướng trẻ đẩy đi lưu vong, ông cũng nhận được quyết định buộc phải giải ngũ vào tháng 5 năm 1965.